package com.atguigu.bigdata.spark.core.rdd.operator.transform;

import org.apache.spark.SparkConf;
import org.apache.spark.api.java.JavaRDD;
import org.apache.spark.api.java.JavaSparkContext;
import org.apache.spark.sql.sources.In;

import java.util.Arrays;
import java.util.List;

public class Spark10_RDD_Operator_Transform_JAVA {
    public static void main(String[] args) {
        //coalesce方法  缩减分区
        SparkConf conf = new SparkConf().setMaster("local[*]").setAppName("sparkCore");
        JavaSparkContext sc = new JavaSparkContext(conf);

        List<Integer> list = Arrays.asList(1,2,3,4,5,6);
        JavaRDD<Integer> rdd = sc.parallelize(list, 3);
        // coalesce方法默认情况下不会将分区的数据打乱重新组合
        // 这种情况下的缩减分区可能会导致数据不均衡，出现数据倾斜
        // 如果想要让数据均衡，可以进行shuffle处理
        //val newRDD: RDD[Int] = rdd.coalesce(2)
        JavaRDD<Integer> coalesce = rdd.coalesce(2,true);

        coalesce.saveAsTextFile("output");

        sc.stop();
    }
}
